Secret Sharer

模型逆向攻击深度实战:从置信度最大化、生成式先验到训练数据重建的隐私安全工程

模型逆向攻击(Model Inversion Attack)是机器学习隐私威胁谱系里最容易被低估、却最贴近"数据隐私"本质的一类攻击:攻击者并不想复制你的模型,也不只想判断某条记录是否参与过训练,而是要**从模型的输出反推出训练数据本身**——一个人的基因型、一张人脸、一条医疗记录。本文从第一性原理出发,拆解模型逆向的数学内核,复现从 Fredrikson 基因组隐私到 Secret Sharer…